端末側大モデルに突破!Liquid AIが混合エキスパートモデルLFM2.5をオープンソース化
人工知能スタートアップのLiquid AIは、端末側大モデルであるLFM2.5-8B-A1Bを発表し、オープンソース化しました。これは、コンシューマー向けハードウェアに特化したモデルで、ツール呼び出しや指示の遵守能力を最適化しています。このモデルは疎な混合エキスパート構造を採用しており、総パラメータ数は83億ですが、各トークンごとに15億のパラメータのみがアクティブになります。これにより計算コストを抑えつつ推論性能を向上させ、スマートフォンやノートPCでもスムーズに動作できます。